Performance Rating
The H100 PCIe 80 GB was a professional graphics card by NVIDIA, launched in October 2022. Built on the 5 nm process, and based on the GH100 graphics processor, the card does not support DirectX. Since H100 PCIe 80 GB does not support DirectX 11 or DirectX 12, it might not be able to run all the latest games. The GH100 graphics processor is a large chip with a die area of 814 mm² and 80,000 million transistors. Unlike the fully unlocked H100 NVL 94 GB, which uses the same GPU but has all 16896 shaders enabled, NVIDIA has disabled some shading units on the H100 PCIe 80 GB to reach the product's target shader count. It features 14592 shading units, 456 texture mapping units, and 24 ROPs. Also included are 456 tensor cores which help improve the speed of machine learning applications. NVIDIA has paired 80 GB HBM2e memory with the H100 PCIe 80 GB, which are connected using a 5120-bit memory interface. The GPU is operating at a frequency of 1095 MHz, which can be boosted up to 1755 MHz, memory is running at 1593 MHz.
Contents:
Memory ML Performance Compute Power Architecture & Compatibility ML Software Support Clocks & Performance Power Consumption Rendering Benchmarks AdditionalMemory
Memory Size
Memory Type
Memory Bandwidth
Memory Bus Width
ML Performance
FP16 (Half Precision)
BF16 (Brain Float)
TF32 (TensorFloat)
Compute Power
FP32 (Single Precision)
FP64 (Double Precision)
CUDA Cores
RT Cores
Architecture & Compatibility
GPU Architecture
SM (Streaming Multiprocessor)
PCIe Version
ML Software Support
CUDA Version
Clocks & Performance
Base Clock
Boost Clock
Memory Clock
Power Consumption
Recommended PSU
Power Connector
TDP/TGP
Rendering
Texture Units (TMU)
ROP
L2 Cache
Benchmarks
MLPerf, llama2-70b-99.9 (fp8)
MLPerf, mixtral-8x7b (fp8)
Additional
Slots
Release Date
Display Outputs
FAQ
NVIDIA H100 PCIe 80 GB предназначена для высокопроизводительных вычислений, машинного обучения, искусственного интеллекта и научных исследований. Она отлично подходит для задач с большим объемом данных и высокой требовательностью к вычислительной мощности, таких как тренировка глубоких нейронных сетей, симуляции и рендеринг высокого качества.
NVIDIA H100 PCIe 80 GB можно сравнить с аналогичными продуктами от AMD и NVIDIA. Например, NVIDIA A100 PCIe 80GB или AMD Instinct MI250X. H100 отличается более современной архитектурой Hopper, что позволяет ему обеспечивать лучшую производительность в некоторых сценариях, особенно при работе с новыми алгоритмами машинного обучения и искусственного интеллекта.
Для NVIDIA H100 PCIe 80 GB требуется значительное питание и охлаждение. Рекомендуется использовать блок питания с выходным током не менее 750 Вт, так как TDP составляет 350 Вт. Охлаждение также должно быть эффективным, чтобы поддерживать стабильную работу видеокарты при высоких нагрузках. Использование жидкостного охлаждения может быть предпочтительнее для максимальной производительности.
В 2025-2026 годах NVIDIA H100 PCIe 80 GB будет актуальной для специалистов в области машинного обучения, искусственного интеллекта и науки. Однако стоит учитывать, что новые поколения видеокарт могут быть представлены с более передовыми характеристиками и ценами. Поэтому рекомендуется внимательно изучить рынок и оценить, соответствует ли данная видеокарта вашим текущим и будущим потребностям.
Recommendations
Эта видеокарта идеально подходит для обработки больших объемов данных, машинного обучения и искусственного интеллекта благодаря огромной памяти и высокой пропускной способности. Также она хорошо справляется с вычислительными задачами в науке и исследованиях.
Renting is cheaper than buying
H100 80Gb SXM (80GB)
NVIDIA
Флагманская GPU на архитектуре Hopper с 80 ГБ памяти HBM3 в форм-факторе SXM. Создана для обучения и инференса больших языковых моделей, HPC задач. Поддерживает FP64, FP32, TF32, FP16, BF16, FP8 и INT8 вычисления с Tensor Cores 4-го поколения.
from 299.11 RUB/hour
